En 1737 recibió un puesto como músico de la corte en la capilla del príncipe obispo de Eichstätt (por lo que se convirtió temporalmente al catolicismo ) y en 1743 (ahora nuevamente protestante ) se convirtió en flautista en la orquesta de la corte de Bayreuth, donde estaba su hermano Johann Wolfgang, ya activo como concertino. En 1747 se pasó al violín. Las primeras composiciones de Jakob Friedrich (6 sonatas para flauta) aparecieron impresas en 1748, aunque no fue nombrado ‘compositor de la corte’ hasta 1763. En 1764 fue ascendido a director musical de la orquesta de la corte. 

Edición discográfica de obras de Jacob Friedrich Kleinknecht

En 1769 se trasladó con el traslado de la orquesta de la corte a Ansbach, donde fue enterrado en 1794 como ‘Königlich Preußischer Kapellmeister’ (Real Maestro de capilla Prusiano).

Kleinknecht escribió principalmente música de cámara (sonatas para solo y sonatas para trío), así como obras de concierto y varias sinfonías. Se conocen más de 100 obras de música de cámara. Estilísticamente, la música de Kleinknecht se mueve en la zona de transición entre el barroco y el clásico.

Partes del legado musical de Kleinknecht, de las que no ha sobrevivido ningún autógrafo, deben considerarse perdidas. Se pueden encontrar transcripciones de voces, en la Biblioteca Estatal de Baviera, el Museo Nacional Germánico, la Biblioteca Estatal de Baden y los Archivos Municipales de Bayreuth. También hay grabados originales de algunas obras del siglo XVIII y principios del XIX. Aproximadamente 60 tríos de flauta y sonatas se distribuyeron ampliamente mediante copias impresas de editoriales de París, Londres y Nuremberg. Solo aparecieron nuevas ediciones esporádicas a partir del último tercio del siglo XX.